构建数值智能基础模型：跨学科泛化的统一上下文算子网络
🧭 数值智能基础模型·图上下文学习
National University of Singapore
提出 UNICON，以图结构示例作为上下文学习数值系统预测关系，实现跨学科零样本泛化，结合 LLM Agent 可超越专家模型
📌 工作参考价值（4 点）
- 时序图数据（如用户-商品交互图）上的预测任务，可借鉴 UNICON 将系统示例组织为图上下文进行少样本推理的模式，无需微调即可泛化至新场景。
- LLM agent 与数值模型松耦合的架构：LLM 负责任务理解与分解，UNICON 作为数值预测后端，此模式可用于搭建混合智能推荐系统，让语言模型调用专用数值预测器。
- 训练语料多样性直接提升跨域泛化能力的结论具有普适性，在构建跨品域 / 跨场景的推荐模型时，应主动增加训练数据的领域多样性。
- 目前主要面向科学与社会系统数值预测，与电商 / 推荐业务的直接关联有限，核心价值在学术层面。
WhisperRec：用潜在推理压缩思维链，实现高效基础推荐模型
🧭 生成式推荐 · 潜在推理 Semantic ID ★ 深度解读
Kuaishou Technology
将显式思维链压缩为可学习的潜在 token，在保持推理语义的同时提升 10 倍以上吞吐量
📌 工作参考价值（4 点）
- 用潜在 token 代替长文本 CoT：在需要 LLM 推理的推荐系统中，避免生成繁杂的自然语言解释，直接插入少量可学习 latent token，推理延迟接近无 CoT 模型，吞吐量提升 >10 倍，适合在线低延迟场景。
- 多视角自适应 CoT 构造高质量监督：从探索（开放意图发现）、评估（候选打分）和归因（转化证据）三个视角构造互补推理轨迹，并结合行为信号强度自适应调整推理深度，避免简单样本过度推理和困难样本分析不足。在电商广告推荐中可借鉴此思路，用业务规则定义不同视角的推理模板。
- 三阶段潜在推理对齐：先单视图对齐，再多视图对齐，最后推荐导向上下文对齐，逐步将大教师模型的 CoT 知识内化到 latent token 中。该方法可用于将复杂推理能力从大模型蒸馏到线上部署的小模型，工程上可结合 KV cache 复用进一步降低开销。
- 基于课程的多阶段后训练：从高活跃用户到低活跃用户的课程式微调，缓解稀疏行为下的推荐效果退化。在用户冷启动或行为稀疏的业务中，可迁移此策略提升模型鲁棒性。
RxBrain：联合语言推理与视觉想象的具身认知基础模型
🧭 具身Agent联合语言-视觉规划
Tencent Robotics X Team · Futian Laboratory · Tencent Hy Team
将语言推理与视觉想象统一为一个规划序列，实现具身任务的耦合文本-视觉规划与执行
📌 工作参考价值（4 点）
- 多模态规划范式可迁移：将高层语言推理（任务分解、约束、时序逻辑）与视觉状态预测（子目标图像生成）融合成一个序列，这种“语言蓝图+视觉落地”的范式可借鉴到电商商品推荐文案生成中，先规划叙述逻辑再生成对应商品图，提升图文一致性。
- 统一的多模态生成架构：采用单模型支持语言、图像、视频的理解与生成，避免多模型拼接的累积误差。对于需要同时处理商品标题、详情图、视频的推荐系统，统一的 Transformer 混合架构可简化流程。
- 自动数据构造管线：从视频自动分解规划步骤并对齐视觉状态，这种弱监督思路可启发我们利用用户行为序列（如点击→加购→购买）构建“推理-状态”训练数据，训练推荐模型进行因果推理或意图预测。
- 零样本动作扩展：模型在没有大规模动作数据预训练的前提下，仅通过语言和视觉规划直接泛化到连续机器人控制。这提示在多模态推荐中，若将动作空间也建模为序列的一部分，可能实现未见过动作的组合推荐。
VideoRAE：基于表示自编码器驯服视频基础模型的高效视频生成
🧭 视频生成 · 潜空间自编码器
The Chinese University of Hong Kong, Shenzhen · Huazhong University of Science and Technology · Shenzhen Loop Area Institute · University of Science and Technology of China
用冻结视频基础模型特征 + 轻量自编码器压缩为连续/离散潜变量，SOTA 生成且收敛快 5 倍
📌 工作参考价值（4 点）
- 利用冻结基础模型特征做生成式推荐物品表示：将预训练视频/图文模型的多尺度语义特征通过轻量投影网络压缩成紧凑潜变量，可类比把商品多模态内容编码为生成式检索的 Semantic ID，省去从零训练 VAE 的成本。
- 表示对齐目标替代 KL 正则化：解码时引入局部/全局与冻结教师模型的对齐损失，能更好地保留语义信息，这种技巧可迁移到推荐系统中用户或物品编码器的蒸馏训练，避免 KL 坍塌。
- 多码本高维量化支持离散 token 生成：VideoRAE 的多码本量化将连续特征离散化为 token 序列，适合自回归生成式推荐（如生成下一物品 token），可参考其码本配置与训练策略。
- 轻量架构实现快速收敛：冻结主干 + 1D 自注意力投影的廉价设计使训练收敛加速约 5 倍，适合业务快速实验与低 GPU 预算场景。
现代智能体系统的自我改进综述
🧭 Agent 自我改进的系统化综述
Jilin University · King Abdullah University of Science and Technology · Independent Researcher · University of Alberta · The Swiss AI Lab IDSIA/USI/SUPSI
提出系统级框架，将自改进Agent形式化为对模型参数或脚手架的自诱导更新，并整理论坛。
📌 工作参考价值（4 点）
- 在线持续优化推荐策略：在电商推荐中，可借鉴自改进闭环，利用用户交互反馈（点击、转化）自动更新模型参数或提示，实现推荐效果的持续提升，减少人工干预。
- 动态工具与策略脚手架：类似文中的 Scaffolding Improvement，可将推荐系统的召回、排序、过滤等组件视为可动态调整的“工具”，根据实时效果自动调整路由或组合策略，例如动态选择推荐模型、调整混排规则。
- 利用弱反馈信号驱动自适应：论文中总结了多种反馈信号（标量、定性、群体等），实际业务中可利用隐式反馈（停留时长、滑动行为）甚至用户投诉作为改进信号，通过生成-验证-修正循环提升推荐质量。
- Agent 形式的推荐生成：若采用生成式推荐（GenRec），可将推荐生成视为一个自改进 Agent，通过自我反思和多轮交互优化最终推荐结果，特别适用于对话式推荐或搜索结果排序。
Orca：世界在你心中——基于状态预测的通用世界基础模型
🧭 世界模型 · 多模态预训练
Beijing Academy of Artificial Intelligence
以Next-State-Prediction为核心，通过无意识与有意识学习统一世界潜在空间，在下游多模态任务中展现强迁移能力
📌 工作参考价值（4 点）
- 状态转移建模借鉴：用户行为序列可类比世界状态转移，用无意识学习处理大量未标注浏览序列，有意识学习聚焦稀疏但关键的转化事件（如点击、购买），提升对用户长期兴趣的建模。
- 多模态统一表示：将商品图文、用户行为等多模态信号对齐到同一潜在空间，冻结预训练主干，仅在下游训练轻量解码器，降低推荐/搜索系统的多任务开发成本。
- 数据飞轮构建：参考“密集状态转移（视频帧）+ 稀疏事件标注”的混合预训练数据设计，构建高密度交互日志与人工标注反馈相结合的训练流水线。
- 工程轻量化：冻结世界模型主干、只微调解码器的范式，可直接迁移到已有大模型部署场景，快速适配新业务目标如内容生成、问答、动作推荐。
基于预训练信念表示的高效自适应数据获取
🧭 预训练信念驱动的自适应数据获取策略
ELLIS Institute Finland · Department of Computer Science, Aalto University, Finland · Department of Computer Science, University of Helsinki, Finland · Department of Computer Science, University of Manchester, UK · Department of Statistics, University of Oxford, UK
提出POLAR，用预训练模型编码信念状态以解耦表示与策略学习，统一高效地解决贝叶斯实验设计、优化与主动学习
📌 工作参考价值（4 点）
- 在在线推荐、广告搜索中，可将预训练的用户行为序列模型（如Transformers）作为信念状态编码器，仅微调轻量策略头用于bandit/RL决策，避免从零训练。
- 自动化A/B测试或超参数调优时，可用POLAR实现样本高效的贝叶斯优化，大幅减少实验成本。
- 主动学习选择标注样本：利用预训练的语境表示作为信念状态，训练策略头快速适应新任务，所需查询数显著减少。
- 工程上，解耦表示与策略允许复用预训练表征，只需更新策略头，方便增量部署与策略迭代。